之前看Andrew大神的视频有介绍到神经网络权重需要随机初始化而不是全初始化为0的问题，其真正深层次的含义没有弄明白，所以结合一些资料（cs231n课程）希望能让自己之后再想到这个问题的时候能够 ...

因为是Jupyter Notebook的形式，所以不方便在博客中展示，具体可在我的github上查看。 github传送门: deeplearning.ai_JupyterNotebooks ...

译自：http://willwolf.io/2017/04/19/deriving-the-softmax-from-first-principles/ 本文的原始目标是探索softmax函数与si ...

1. 神经网络基础知识 1.1 神经元 神经网络（Neural Net）是由大量的处理单元相互连接形成的网络。神经元是神经网络的最小单元，神经网络由若干个神经元组成。一个神经元的结构如下： ...

Gradient(F)函数求的是数值上的梯度，假设F为矩阵. >> x=[6,9,3,4,0;5,4,1,2,5;6,7,7,8,0;7,8,9,10,0] x ...

别看本文没有几页纸，本着把经典的文多读几遍的想法，把它彩印出来看，没想到效果很好，比在屏幕上看着舒服。若用蓝色的笔圈出重点，这篇文章中几乎要全蓝。字字珠玑。 Reducing the Dimensi ...